LycheeMemory V2: Efficient Long-Term Memory for LLM Agents via Semantic Segment-Level Consolidation
LycheeMemory V2：语义片段级巩固的 LLM Agent 长期记忆框架
🧭 LLM Agent 长期记忆构建与检索 ★ 深度解读
Harbin Institute of Technology, Shenzhen
将逐轮记忆巩固改为语义片段级批量编码，写侧 token 降最多 86% 且 LoCoMo/LongMemEval-S 精度 SOTA
📌 工作参考价值（4 点）
- 在对话式推荐/导购 Agent 中，不要每轮都调 LLM 写画像；改成按语义完整片段批量生成 typed memory records（偏好/事实/约束/事件），写侧 token 可降低 75%–86%，适合长期用户画像积累。
- 分段触发别用固定窗口，可用 embedding 相似度 + cohesion drop 在线检测语义边界，保留事件和话题结构；固定窗口在消融中精度掉 6.8pp，语义分片能提升多跳和开放域问答。
- 把非结构化对话提炼为 typed records，并建立 entity/topic/temporal/event-frame 结构化索引；查询时 planner 一次性规划多路召回（record/节点/时间/原始 turn），再用 RRF 融合，能有效处理多跳、时序、偏好追踪类查询，且避免多轮 LLM 检索带来的 query token 上升。
- 评估记忆系统时，把 construction tokens 和 query tokens 分开核算，不要只比精度；该方法在精度提升 20pp 以上的同时，query tokens 反而比 A-Mem 低 28%–43%。